I video di donne nere raffigurate come "Bigfoot" stanno diventando virali

Una "cattiva Bigfoot" generata dall'intelligenza artificiale , con unghie acriliche e parrucca rosa, parla direttamente al suo pubblico immaginario usando un iPhone. "Potremmo dover darci alla fuga", dice. "Sono ricercata per una falsa denuncia sul padre del mio bambino". Questo video di intelligenza artificiale, generato da Veo 3 di Google, ha totalizzato oltre un milione di visualizzazioni su Instagram . È solo uno dei tanti post virali su Instagram e TikTok visualizzati da WIRED che raffigurano le donne nere come primati e perpetuano stereotipi razzisti usando strumenti video di intelligenza artificiale .

Veo 3 di Google ha riscosso un grande successo tra il pubblico online quando è stato presentato alla conferenza per sviluppatori dell'azienda a maggio. Generazioni surreali di personaggi biblici e cripti, come Bigfoot, che realizzavano vlog in stile influencer si sono rapidamente diffuse sui social media. I vlog di Bigfoot generati dall'intelligenza artificiale sono stati persino utilizzati da Google come argomento di vendita nelle pubblicità che promuovevano la nuova funzionalità.

Con i "cattivi Bigfoot", i creatori online stanno prendendo quella che era una tendenza piuttosto innocua sui social media e la stanno riutilizzando per disumanizzare le donne nere. "C'è un precedente storico dietro al perché questo sia offensivo. Agli albori della schiavitù, le persone nere venivano esagerate nelle illustrazioni per enfatizzare le loro caratteristiche primordiali", afferma Nicol Turner Lee , direttrice del Center for Technology Innovation presso la Brookings Institution.

"È disgustoso e inquietante che questi stereotipi e immagini razziali siano facilmente disponibili per essere progettati e distribuiti su piattaforme online", afferma Turner Lee.

Uno degli account Instagram più popolari che pubblica queste clip generate ha cinque video con oltre un milione di visualizzazioni, a meno di un mese dal primo post. I video dell'IA mostrano gli ibridi donna-animale che parlano inglese vernacolare afroamericano in modo caricaturale, con i personaggi spesso mostrati mentre indossano una cuffia e minacciano di aggredire le persone. In una clip, la generazione dell'IA, usando un accento country, insinua di aver tirato fuori una bottiglia di liquore Hennessy conservata nei suoi genitali.

Veo 3 è in grado di creare tutto ciò che si vede in video come questo, dallo scenario all'audio parlato, fino ai personaggi stessi, partendo da un singolo prompt. La biografia del famoso account Instagram include un link a un corso online da 15 dollari dove è possibile imparare a creare video simili. In video con titoli come "Veo 3 does the heavy lifting", tre insegnanti usano la voce narrante per guidare gli studenti attraverso il processo di prompting dello strumento video di intelligenza artificiale per le clip di Bigfoot e la creazione di personaggi coerenti. L'indirizzo email indicato come amministratore del corso online ha restituito i messaggi quando WIRED ha tentato di contattare i creatori.

Un portavoce di Meta, proprietaria di Instagram, ha rifiutato di rilasciare dichiarazioni ufficiali. Google e TikTok hanno entrambe riconosciuto la richiesta di commento di WIRED, ma non hanno rilasciato dichiarazioni prima della pubblicazione.

La nostra analisi sui social media ha rilevato account imitatori su Instagram e TikTok che ripubblicano i video di "Bigfoot Baddie" o generano video simili. Un repost di un video su Instagram ha raggiunto 1 milione di visualizzazioni su una pagina di meme incentrata sull'intelligenza artificiale. Un altro account Instagram ha un altro video di "Bigfoot Baddie" con quasi 3 milioni di visualizzazioni. Non si tratta solo di Instagram; un account su TikTok dedicato a contenuti simili generati dall'intelligenza artificiale ha attualmente oltre 1 milione di "Mi piace". Questi account non hanno risposto immediatamente a una richiesta di commento.

"Se muoio qui, è meglio che io venga resuscitata con un BBL", dice una femmina di Bigfoot generata dall'IA su un altro account, parlando alla telecamera mentre schiva bombe durante una vacanza in Israele. "Uno dei problemi dell'IA generativa è che i creatori di strumenti di IA non riescono a concepire tutti i modi in cui le persone possono essere orribili l'una con l'altra", afferma Meredith Broussard, professoressa alla New York University e autrice di"More Than a Glitch ", un libro sui pregiudizi nella tecnologia. "Quindi, non riescono a mettere un numero sufficiente di barriere di protezione. È esattamente lo stesso problema che abbiamo visto sulle piattaforme dei social media".

Dopo aver cliccato su alcuni video di Bigfoot femmina, il feed di Instagram Reels del nostro account di prova è stato subito riempito dall'algoritmo con altri video razzisti, tra cui una generazione di intelligenza artificiale di un uomo di colore su una barca da pesca che cattura eccitato un pezzo di pollo fritto e si riferisce a uno scimpanzé come a suo figlio.

Sebbene questi video di intelligenza artificiale siano sconvolgenti, non sono necessariamente sorprendenti. Nel 2023, mentre un video generato dall'intelligenza artificiale di Will Smith che mangiava spaghetti stava diventando virale sui social media, Jason Parham, redattore senior di WIRED , lo analizzò come una forma di menestrello. "Questa nuova era di menestrello assumerà una forma camaleontica ancora più astuta, adattabile e immediata nella sua astuzia, dai deepfake umanistici alle manipolazioni vocali azzeccate a ogni sorta di inganno digitale", scrisse Parham all'epoca.

Con quest'ultima ondata di strumenti video generativi basati sull'intelligenza artificiale, guidati da Veo 3 di Google, non è mai stato così facile produrre video AI fotorealistici. La facilità di generazione di numerosi video, unita alla costante diffusione di materiale di scarto AI sulle piattaforme dei social media, è parte di ciò che ha reso popolari questi "cattivi Bigfoot". Probabilmente continueranno a esserci altre tendenze sui social media in cui i creatori usano l'IA per attaccare le minoranze. "L'IA non ha solo reso più facile la manipolazione delle immagini", afferma Turner Lee. "Ma l'algoritmo stesso, e la sua ecologia, ha anche reso più facile condividere o aumentare il consumo di questi contenuti".